#영지식 증명

'충분히 좋은' AI 시대의 보안 감사

보안 업체가 Miden zkVM 감사를 준비하며 AI 에이전트를 활용해 LSP 서버, 디컴파일러, 정적 분석 엔진, Lean 형식 모델을 6개월간 직접 구축한 사례를 소개한다. 이렇게 만든 도구들이 실제 보안 취약점(악성 프로버가 Falcon 서명을 위조해 자금을 탈취할 수 있는 미검증 입력 문제)을 발견했고, 95개의 기계 검증 정확성 증명을 확보했다. 코드 리뷰 외에도 감사 준비 단계부터 AI가 감사 품질과 깊이를 크게 높일 수 있음을 보여준다.

수학적 AI 안전 연구소, 암호 해독 불가 증명처럼 AI 안전성 증명 추구

필즈 메달 수상자인 캐나다 수학자 제이콥 치머먼이 '수학적 AI 안전 연구소(MAISI)'를 설립했다. 이 연구소는 암호학자가 암호 체계의 해독 불가능성을 수학적으로 증명하듯, AI 시스템의 안전성을 수학적 증명으로 입증하는 것을 목표로 하며, 영지식 증명(zero-knowledge proof) 등의 도구를 활용할 계획이다.